從 Day 1 的「為什麼資安需要垂直模型」,到昨天的「模型可換,治理不變」。今天做三件事:如果重來的順序、哪些部分可復現、以及這件事真正教了我什麼。
我實際的順序是:定位 → 資料 → 訓練 → Agent → 治理。
如果重來,我會這樣走:
1. 定位與場景 (原 Day 1–2,不變)
2. 治理層設計 ★ (原 Day 24–28,大幅提前)
3. 資料脈絡層 ★ (原 Day 15–23 的前處理部分,提前)
4. 用現成模型跑通全流程 ★ (新增,原本沒有)
5. 建立任務導向評測 ★ (原 Day 14,大幅提前)
6. 才開始微調 (原 Day 3–13,往後移)
7. 用評測驗證微調是否值得
四個 ★ 是主要的改動。理由:
★ 治理層提前:因為它決定了系統長什麼樣。狀態機、審核流程、稽核軌跡如果最後才加,會發現前面的設計不支援,要改一大堆。而且這一層的思考不需要模型就能做。
★ 資料脈絡層提前:因為它是護城河(Day 29),而且它的價值會複利——越早開始累積客戶脈絡、越早開始記錄修改分類,三個月後的資產差距越大。
★ 先用現成模型跑通全流程:這是最大的改動。我應該先用一個現成的模型,把四個任務的流程完整跑通,讓真正的使用者用一段時間。
這樣做的話,我在動任何訓練之前就會知道:哪些任務真的需要微調(月報)、哪些其實 RAG 就夠(顧問問答)、審核者實際上都在改什麼。
而我實際上是先訓練了兩週,才發現這些。
★ 評測提前:如果我在訓練前就建好了 Day 14 那四類任務導向指標,我就不會拿多選題 benchmark 當唯一標準,也不會有 Day 12 那個令人困惑的結果。
歸納成一句話:我把「可以先做、而且不需要模型的事」,放到了模型後面。
這個系列有一部分東西是綁在我的場景與資料上的,但有相當比例是通用的。
完全可復現(不依賴我的資料):
需要你自己的資料才能復現:
我建議的起點:不是從 Day 1 開始照做,而是先拿 Day 6 的分流表、Day 15 的流程語法、Day 25 的三大鐵律這三樣東西,套到你自己的場景上。這三樣的投入產出比最高。
Day 12 那篇是這個系列最難寫的一篇,也是回饋最多的一篇。
如果我寫的是「經過三階段微調,模型效能提升 X%」,不提題數、不提誤差、不提另外兩組沒動——那篇會比較好看,會比較有面子,也會完全沒有價值,而且是不誠實的。
而寫出真相之後,它變成了整個系列的樞紐:Day 13 的原因分析、Day 14 的修正方案、Day 29 的三層架構,全部是從那次失敗長出來的。
在技術領域,能公開講清楚自己錯在哪的人不多。而那些內容的價值,遠高於又一篇成功案例。
回頭看,這 30 天最有價值的決定,幾乎全部是「不做」:
每一個「不」,都換到了一份可信任。
而 AI 系統最稀缺的資源就是信任——因為它的失敗模式是「自信地錯」,一旦失去信任,使用者就會回去手動做,系統的價值歸零。
我用的模型,一年後大概沒人會用了。訓練配方會有更好的。硬體會更便宜。
但這 30 天裡真正花力氣想清楚的東西——什麼該交給程式、什麼該交給檢索、什麼該交給模型、什麼必須交給人——這些判斷不會過時。
因為它們回答的不是「這個技術能做什麼」,而是「這件事該怎麼負責」。
而後者,是資安這個行業一直在回答的問題。AI 只是換了一個新的形式來問它。
三十天,四個部分:
如果只能留一句話給讀到這裡的人:
不要問「AI 能不能做這件事」,問「這件事出錯的時候,誰負責」。 這個問題的答案,會告訴你系統該怎麼設計。
謝謝陪我走完這三十天。
🛡️ Instagram: @aid3fend — AI 資安實戰紀錄,歡迎追蹤交流。